중국어 방_{(r1 문단 편집)}

==== 작위적 판단의 위험성 ====
심사관의 판단에 의존하는 구조는 심사관이 작위적으로 결과를 조작할 수 있다는 또 다른 문제로 이어진다. 방 안의 사람이 중국어를 유창하게 구사한다 해도 심사관이 작위적으로 그 사람이 중국어를 이해하지 못한다는 결론을 내릴 수 있다는 것. 이는 '''심사관이 맥락을 일방적으로 왜곡'''할 위험성을 의미하며, 이러한 [[매듭 자르기의 오류]]로 인해 사고 실험의 신뢰성이 떨어질 수 있다. 실제로 [[요한계시록]]이나 [[쿠란]] 등 경전의 맥락을 왜곡한 결과가 바로 [[테러리즘]]이며, 그 밖에도 [[언어 차별]] 등 '맥락 왜곡'으로 인한 갈등 및 사회적 문제는 이미 곳곳에 나타나 있다.[* 이렇게 주변 문맥을 무시하고 특정 구절만을 인용해 자신의 주장을 정당화하는 행위를 프루프 텍스팅(proof-texting)이라 하는데, 본래는 성경의 [[문맥을 무시한 인용|맥락을 고려하지 않는 인용]]의 위험성을 경고하기 위한 용어이다.] 또한 후술할 듯 인간과 기계 사이에는 구조적 차이가 명확해 [[불쾌한 골짜기|이 부분에서 막연한 거부감을 느끼는 사람이 많은데]], 이것이 AI의 자아를 비롯한 [[인공 의식]]의 인정을 가로막는 원인으로 작용한다.[* 여기에는 [[매트릭스 시리즈]] 등 [[기계의 반란]]을 다룬 작품들도 한몫했다. 인공지능에 대한 부정적인 인식이 먼저 퍼졌으니, 기술이 발달한 뒤에도 [[경로 의존성|그 인식에서 벗어나지 못하는 것]].] [[존 설]] 역시 중국어 방을 제시하면서 [[강인공지능]]의 가능성에 대해서는 일방적으로 부정했는데, AI 기술이 서서히 발달하면서도 그 아집은 여전했다.

실제로 사고 실험이 고안된 초창기부터 '언어 게임'을 근간으로 하는 [[루트비히 비트겐슈타인|비트겐슈타인]] 학파를 중심으로 이러한 한계가 지적되었는데, 대표적으로 [[힐러리 퍼트넘]]의 주장을 인용한 로버트 아벨슨[* Putnam, H. "Minds and machines." Dimensions of Mind/New York University Press (1960).][* Abelson, Robert P. "Searle's argument is just a set of Chinese symbols." Behavioral and Brain Sciences 3.3 (1980): 424-425.]과 클라우스 K. 오버마이어[* Obermeier, Klaus K. "Wittgenstein on language and artificial intelligence: The Chinese-room thought experiment revisited." Synthese (1983): 339-349.] 등은 '언어 게임'을 근거로 존 설 교수가 '이해'라는 말을 오용하고 있다 지적하였다. [[스웨덴]] [[웁살라 대학교]]의 오토 팔뫼프(Otto Palmlöf)는 여기에서 나아가 '규칙 준수 기능주의'(The Functionalist View of Rule Following)와 '규칙 기반 이해 이론'(The Rule-based Theory of Understanding)을 통해 '이해'는 '텍스트'가 아닌 '공동체의 결정'에서 나옴을 보였다.[* Palmlöf, Otto. "Wittgenstein and the Chinese Room." (2023). ([[https://www.diva-portal.org/smash/get/diva2:1773898/FULLTEXT01.pdf|영어 원문]], [[https://blog.naver.com/madrabbit7/223184514902|한국어 번역]]), 학사 논문인데도 불구하고 중국어 방의 한계를 종합적으로 지적하고 있다.] '이해'를 위해서는 '''심사관과 참가자 양측 모두 적합한 맥락을 쥐고 있어야''' 한다는 것으로, 공동체가 받아들여야 텍스트에서 의미가 나온다는 사실은 [[언어의 사회성]]으로 직결된다. 비트겐슈타인 철학은 중국어 방 문제를 해결할 수 있는 중요한 열쇠가 될 수도 있었지만, 아쉽게도 당시에는 큰 주목을 받지 못했다. 존 설 역시 오버마이어 등의 지적에는 동의했지만, 그러면서도 구문론과 의미론은 별개라며 선을 그었다.

요약

문서 편집을 저장하면 당신은 기여한 내용을 CC BY-NC-SA 2.0 KR 또는 기타 라이선스 (문서에 명시된 경우) 로 배포하고 기여한 문서에 대한 하이퍼링크나 URL을 이용하여 저작자 표시를 하는 것으로 충분하다는 데 동의하는 것입니다. 이 동의는 철회할 수 없습니다.

비로그인 상태로 편집합니다. 로그인하지 않은 상태로 문서 편집을 저장하면, 편집 역사에 본인이 사용하는 IP(216.73.216.107) 주소 전체가 영구히 기록됩니다.

중국어 방(r1 문단 편집)

중국어 방_{(r1 문단 편집)}